本文提供了在过去十年中开发糖尿病足溃疡数据集的概念基础和程序，有一个时间线来证明进步。我们对脚踏照片的数据捕获方法进行了调查，概述了开发私立和公共数据集的研究，相关的计算机视觉任务（检测，分割和分类），糖尿病足溃疡挑战和未来发展的发展方向数据集。我们通过国家和年度报告数据集用户的分发。我们的目标是分享我们与DataSet开发的良好做法遇到的技术挑战，并为其他研究人员提供参与该域中的数据共享的动机。
translated by 谷歌翻译
糖尿病足溃疡分类系统使用伤口感染（伤口内的细菌）和缺血（限制血供给）作为重要的临床指标治疗和预测伤口愈合。研究使用自动化计算机化方法在糖尿病足伤中使用自动化计算机化方法的使用和缺血的使用是有限的，这是有限的，因为存在的公开可用数据集和严重数据不平衡存在。糖尿病脚溃疡挑战2021提供了一种具有更大量数据集的参与者，其总共包括15,683只糖尿病足溃疡贴剂，用于训练5,734，用于测试，额外的3,994个未标记的贴片，以促进半监督和弱的发展 - 监督深度学习技巧。本文提供了对糖尿病足溃疡攻击2021中使用的方法的评估，并总结了从每个网络获得的结果。最佳性能的网络是前3种型号的结果的集合，宏观平均F1分数为0.6307。
translated by 谷歌翻译
单细胞RNA-seq数据集的大小和复杂性正在增长，从而可以研究各种生物/临床环境中的细胞组成变化。可扩展的降低性降低技术需要消除它们的生物学变异，同时考虑技术和生物混杂因素。在这项工作中，我们扩展了一种流行的概率非线性维度降低的方法，即高斯过程潜在变量模型，以扩展到大量的单细胞数据集，同时明确考虑技术和生物混杂因素。关键思想是使用增强的内核，该内核可以保留下限的可分式性，从而允许快速随机变化推断。我们证明了其在Kumasaka等人中重建先天免疫的潜在潜在签名的能力。 （2021）训练时间较低9倍。我们进一步分析了一个共同数据集并在130个人群中证明了该框架，该框架可以在捕获可解释的感染签名的同时进行数据集成。具体而言，我们探讨了互联的严重程度，作为优化患者分层并捕获疾病特异性基因表达的潜在维度。
translated by 谷歌翻译
人工智能的最新趋势是将验证的模型用于语言和视觉任务，这些模型已经实现了非凡的表现，但也令人困惑。因此，以各种方式探索这些模型的能力对该领域至关重要。在本文中，我们探讨了模型的可靠性，在其中我们将可靠的模型定义为一个不仅可以实现强大的预测性能，而且在许多涉及不确定性（例如选择性预测，开放式设置识别）的决策任务上，在许多决策任务上表现出色，而且表现良好。强大的概括（例如，准确性和适当的评分规则，例如在分布数据集中和分发数据集上的对数可能性）和适应性（例如，主动学习，几乎没有射击不确定性）。我们设计了40个数据集的10种任务类型，以评估视觉和语言域上可靠性的不同方面。为了提高可靠性，我们分别开发了VIT-PLEX和T5-PLEX，分别针对视觉和语言方式扩展了大型模型。 PLEX极大地改善了跨可靠性任务的最先进，并简化了传统协议，因为它可以改善开箱即用的性能，并且不需要设计分数或为每个任务调整模型。我们演示了高达1B参数的模型尺寸的缩放效果，并预处理数据集大小最多4B示例。我们还展示了PLEX在具有挑战性的任务上的功能，包括零射门的开放式识别，主动学习和对话语言理解中的不确定性。
translated by 谷歌翻译
在对机器学习研究的可靠性和可信度的越来越关注的越来越关注的情况下，我们提出了一个有原则的框架，用于提出可靠和可推广的主张：多元宇宙分析。我们的框架建立在多元宇宙分析（Steegen等，2016）的基础上，该框架是为了应对心理学自身的可重复性危机而引入的。为了有效地探索高维且经常连续的ML搜索空间，我们用高斯工艺替代品对多元宇宙进行建模，并应用贝叶斯实验设计。我们的框架旨在促进有关模型性能的强大科学结论，因此我们的方法着重于探索而不是常规优化。在两个案例研究中的第一个中，我们研究了关于自适应优化者相对优点的有争议的主张。其次，我们综合了关于学习率对大批次培训概括差距的影响的矛盾研究。对于机器学习社区而言，多元宇宙分析是一种简单有效的技术，用于识别稳定的主张，提高透明度以及迈向改善可重复性的一步。
translated by 谷歌翻译
图像之间的感知距离在预训练的深度特征的空间中测量，在评估图像相似性方面优于先前的低级，基于像素的指标。虽然众所周知，较旧模型（例如Alexnet和VGG）捕获感知相似性的功能却较少，但研究了现代和更准确的模型。在本文中，我们提出了一项大规模的经验研究，以评估成像网分类器在感知相似性方面的表现。首先，我们观察到成像网的精度与现代网络（例如重置，有效网络和视觉变压器）的感知得分之间的反相关性：更好的分类器达到了较差的感知得分。然后，我们在不同的深度，宽度，训练步骤，重量衰减，标签平滑和辍学时检查了成像网的精度/感知分数关系。更高的精度将感知得分提高到一定点，但是我们在中高精度方面发现了精度和感知得分之间的帕累托前沿。我们使用许多合理的假设，例如失真不变性，空间频率灵敏度和替代感知函数，进一步探索这种关系。有趣的是，我们发现仅在Imagenet上接受少于5个时代训练的浅重新收集和重新注册，其新兴的感知得分与直接受到监督的人类感知判断直接训练的先前最佳网络相匹配。
translated by 谷歌翻译
In this paper we explore whether the fundamental tool of experimental psychology, the behavioral experiment, has the power to generate insight not only into humans and animals, but artificial systems too. We apply the techniques of experimental psychology to investigating catastrophic forgetting in neural networks. We present a series of controlled experiments with two-layer ReLU networks, and exploratory results revealing a new understanding of the behavior of catastrophic forgetting. Alongside our empirical findings, we demonstrate an alternative, behavior-first approach to investigating neural network phenomena.
translated by 谷歌翻译
对不确定度和鲁棒性的高质量估计对于众多现实世界的应用来说至关重要，特别是对于深入学习，这是利用许多部署的ML系统。因此，比较改善这些估计的技术的能力对于研究和实践相似非常重要。然而，由于一系列原因，通常缺乏方法的竞争比较，包括：计算广泛调整的可用性，加入足够多的基线，以及用于再现性的具体文件。在本文中，我们介绍了不确定性的基线：在各种任务中的标准和最先进的深度学习方法的高质量实现。从本撰写中，集合跨越9项方法，每个方法都有至少5个度量。每个基线都是一个独立的实验管道，易于可重复使用和可伸缩的部件。我们的目标是提供具有新方法或应用的实验的即时出发点。此外，我们还提供模型检查点，实验输出为Python笔记本，以及用于比较结果的排行榜。代码在https://github.com/google/uncertainty-baselines。
translated by 谷歌翻译
Transferring knowledge from a teacher neural network pretrained on the same or a similar task to a student neural network can significantly improve the performance of the student neural network. Existing knowledge transfer approaches match the activations or the corresponding handcrafted features of the teacher and the student networks. We propose an information-theoretic framework for knowledge transfer which formulates knowledge transfer as maximizing the mutual information between the teacher and the student networks. We compare our method with existing knowledge transfer methods on both knowledge distillation and transfer learning tasks and show that our method consistently outperforms existing methods. We further demonstrate the strength of our method on knowledge transfer across heterogeneous network architectures by transferring knowledge from a convolutional neural network (CNN) to a multi-layer perceptron (MLP) on CIFAR-10. The resulting MLP significantly outperforms the-state-of-the-art methods and it achieves similar performance to the CNN with a single convolutional layer. * Contributed during an internship at Amazon.
translated by 谷歌翻译
We introduce stochastic variational inference for Gaussian process models. This enables the application of Gaussian process (GP) models to data sets containing millions of data points. We show how GPs can be variationally decomposed to depend on a set of globally relevant inducing variables which factorize the model in the necessary manner to perform variational inference. Our approach is readily extended to models with non-Gaussian likelihoods and latent variable models based around Gaussian processes. We demonstrate the approach on a simple toy problem and two real world data sets.
translated by 谷歌翻译